焦点追踪/AI催生新骗案　偷声换脸不胜防

　　图：观言察色　分辨AI“换装术”

　　ChatGPT方兴未艾，焦点“AI孙燕姿”刚刚爆火，追踪就在世人迎来“AI元年”之时，催生AI换脸这种新型骗术已经悄然出现。新骗近日内蒙古包头警方公布，案偷一男士遭遇骗子AI换脸冒充好友，声换胜防结果10分锺浅聊，焦点就被骗走430万元（人民币，追踪下同）。催生骗术之新、新骗数额之巨，案偷以及防不胜防的声换胜防状况，都让人瞠目结舌。焦点有专家提醒公众，追踪尽量不要在公开平台大量晒出个人照片和视频，催生以免给犯罪分子盗用冒充身份。/大公报记者　张宝峰北京报道

　　在包头案中，受害人郭先生的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户转账。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生在10分锺内，先后分两笔把430万元转到了对方的银行账户上。然而事后，郭先生拨打好友电话才得知被骗。原来骗子通过AI换脸和拟声技术，佯装好友对其实施诈骗。“当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”郭先生事后说。

　　肆虐全球 上当比率近100%

　　事实上，郭先生的遭遇并非个案，从中国内地到欧美各国，形形色色的AI换脸骗案纷纷出现，且不少都是如郭先生案例般涉及上百万巨额的诈骗案例。今年5月，湖北网警巡查执法发布消息称，AI技术改变了诈骗手段，而新骗局来袭后，诈骗成功率竟接近100%。

　　据了解，在AI换脸的骗局中，犯罪分子会先以各种手段套取拟冒充对象的声音、脸容资料作为合成的素材，如通过骚扰电话录音等来提取某人声音，又或是在社交平台上获取公开的相片，甚至是直接骇入冒充对象的手机或社交账号。除了事先制作AI换脸视频播放，有的软件还可以实时捕捉替换人脸，并且直接接替摄像头，让骗徒透过视频聊天获取受害人信任，实施诈骗。

　　在有效监管尚未及时跟进的背景下，各种围绕AI技术带来的新问题甚至犯罪行为，已经成为业内外不得不正视的热点话题。清华大学人工智能研究院等部门发布的《深度合成十大趋势报告（2022）》显示，创作者在互联网平台中发布的深度合成内容的数量高速增长，以视频为例，2021年新发布的深度合成视频的数量，较2017年已增长10倍以上。

　　专家：远程转账务必多重验证

　　对此，中国互联网协会发出公告提示，伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用AI换脸、换声等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。

　　为了保护好自己的“钱袋子”，用户在进行远程转账务时，必须进行多重验证。如果有人自称家人、朋友、老师、领导以各种方式和理由诱导你转账汇款，务必第一时间提高警惕。

　　北京民商事律师李斌25日则对大公报表示，其实公众更应该将这种保护与防范前置化，也就是保管好自己的图像和视频。比如，尽量不要在公开平台大量晒出个人照片和视频，以免给犯罪分子以可乘之机。另外，在社会上办理业务或者拍摄照片、视频时，一定要注意及时收回或彻底删除底版，以免被他人滥用。

很赞哦!（98）